Facebooks Geschäftsmodell basiert im Wesentlichen auf Werbung. Die meisten Einnahmen macht das Unternehmen damit, dass es Werbetreibenden eine komplexe Infrastruktur zur Verfügung stellt, um Werbeanzeigen zu verbreiten. Facebook analysiert dazu jeden Like und jeden Klick der mehr als zwei Milliarden Nutzer*innen und ordnet sie verschiedenen Kategorien zu. Die Auswahl dieser Kategorien für Werbetreibende will Facebook in Zukunft eingrenzen. Damit reagiert das Unternehmen auf jahrelange Vorwürfe, diskriminierende Werbeanzeigen zu ermöglichen.
Werbeanzeigen können auf Facebook beispielsweise gezielt an Menschen vermittelt werden, die Eltern sind, einen Doktortitel haben, politisch konservativ eingestellt sind und sich für Technologie interessieren. Gleichzeitig erlauben die Kategorien aber auch das explizite Ausschließen verschiedener Personengruppen. Dies kann zu Diskriminierung führen, besonders wenn es um Anzeigen für Jobs, Wohnungen oder Kredite geht.
„Multikulti“ als Werbekategorie
Momentan bietet Facebook für Werbetreibende beispielsweise sensible Kategorien wie Alter, Geschlecht, „nicht in ihrem Heimatland lebende Personen“, „Religion“ oder „multikulturelle Interessen“ an. Aber auch die Kombination anderer Kategorien kann auf eine Diskriminierung abzielen. Außerdem ist völlig intransparent, wie die Zuordnungen überhaupt vorgenommen werden.
Facebook äußerte sich nun in einem Blogpost erneut zu dieser Thematik:
Wir setzen uns dafür ein, Menschen vor diskriminierender Werbung auf unseren Plattformen zu schützen. Daher entfernen wir über 5,000 Optionen für zielgerichtete Werbung, um Missbrauch zu verhindern. Obwohl diese Optionen bisher auf legitime Art genutzt wurden, um an gewissen Produkten oder Dienstleistungen interessierte Menschen zu erreichen, glauben wir, dass die Minimierung des Missbrauchs-Risikos wichtiger ist. Das beinhaltet die Möglichkeit von Werbetreibenden, Menschen auszugrenzen, die mit Attributen wie Ethnizität oder Religion in Verbindung stehen. [Eigene Übersetzung]
Facebook ignorierte Beschwerden
Es scheint so, als ziehe Facebook damit erstmals weitreichendere Konsequenzen aus der jahrelangen Kritik an seinen Werbe-Tools.
Den Anstoß für die Kritikwelle gab ein Bericht der Investigativplattform ProPublica im Oktober 2016. Die Journalistin Julia Angwin und ihr Kollege Terry Paris Jr. deckten damals auf, dass auf Facebook die Distribution von Werbung nach einer Kategorie namens „ethnische Affinität“ möglich ist. Anzeigen konnten somit gezielt US-Nutzer*innen vorenthalten werden, die Facebook etwa als „African American“, „Asian American“ oder „Hispanic“ eingeordnet hatte. Damit konnten die Betroffenen unmittelbar von Angeboten ausgeschlossen werden.
Werbekunden konnten diese Ausschlusskategorien für Immobilienanzeigen nutzen, aber auch für Stellenanzeigen oder bei Krediten – und das, obwohl solche Formen der Diskriminierung in den USA gegen mehrere Gesetze verstoßen. Der „Fair Housing Act“, der „Age Discrimination in Employment Act“ sowie das Gesetz für gleiche Kreditchancen verbieten die Diskriminierung von Personen aufgrund von sensiblen Kategorien wie beispielsweise Alter, Herkunft, Hautfarbe oder Geschlecht, auch in der Werbung.
Angwin und Paris erstellten eine Testanzeige für Immobilien und verbreiteten diese über Facebook. Dabei schlossen sie explizit Personen mit gewissen „ethnischen Affinitäten“ aus. Ihre diskriminierende und gesetzeswidrige Anzeige wurde binnen 15 Minuten von Facebook genehmigt und veröffentlicht. Ihr Artikel schlug große Wellen und kurze Zeit später gab es die erste Bürgerrechtsklage gegen Facebook.
Facebook rechtfertigte sich damals entschlossen: Die Kategorie „ethnische Affinität“ repräsentiere nicht die wirkliche Ethnizität, sondern das Interesse an Inhalten, die mit verschiedenen ethnischen Gemeinschaften in Verbindung stehen. Das Unternehmen zog aus der Affäre nur kleine Konsequenzen. „Ethnische Affinität“ wurde kurzerhand umbenannt zu „multikulturelle Affinität“ und durfte nicht mehr für Anzeigen in den Bereichen Immobilien, Jobs und Finanz-Dienstleistungen genutzt werden.
Um dies zu kontrollieren, wollte Facebook Anzeigen aus den drei sensiblen Bereichen automatisiert erkennen und unterbinden. Als Julia Angwin und ihr Team die neuen Vorkehrungen jedoch im November 2017 auf die Probe stellten, konnten sie eine Anzeige mit den gleichen Parametern wie im Vorjahr ohne Hindernisse verbreiten. Zudem wurde im September 2017 publik, dass Facebook die Verbreitung von Werbung nach der Kategorie „Judenhasser“ ermöglichte.
Zuletzt wurde sogar die US-Regierung auf das Problem aufmerksam. Die Bundesbehörde für Wohnungsbau legte am 13. August 2018 Beschwerde gegen Facebook ein.
Schlupflöcher bleiben bestehen
Facebooks kündigte diese Woche an, für das gezielte Ausspielen von Werbeanzeigen 5,000 Kategorien zu streichen. Das wirkt auf den ersten Blick radikal. Doch es wird nicht weiter spezifiziert, um welche Optionen es sich handelt. Neben den etwa tausend fixen Kategorien, die in jedem Profil eingestellt werden können, ordnet Facebook seine Nutzer*innen in mehrere zehntausend weitere Kategorien ein, die zum Beispiel vom Nutzungsverhalten (Likes von Seiten, Apps etc.) abgeleitet werden. Neben dieser riesigen Anzahl erscheinen 5,000 Optionen eher gering.
Und selbst wenn sensible Kategorien wie „multikulturelle Interessen“ in Zukunft wegfallen sollten, gibt es zahlreiche Kombinationsmöglichkeiten von anderen Kategorien, die mit diskriminierenden Attributen korrelieren. Schon allein die Magazine, die auf Facebook verfolgt werden, können ersatzweise zur Zielgruppensteuerung genutzt werden. Wer etwa dem vietnamesischen Magazin „Hoa hoc Tro“ auf Facebook folgt, spricht mit großer Wahrscheinlichkeit diese Sprache fließend. Derartige Informationen können beispielsweise mit dem Ziel genutzt werden, Menschen mit Migrationsgeschichte auszuschließen, wie ein kürzlich veröffentlichter Forschungsbericht deutlich macht. Mit geschickten Kombinationen solcher Attribute lassen sich also weiterhin diskriminierende Anzeigen schalten.
Externe Listen erlauben Diskriminierung
Der Bericht zeigt außerdem, dass diskriminierende Werbung auch über andere Wege mit wenig Aufwand ausgesendet werden kann. Dabei kommen zumindest zwei Methoden in Betracht: Beispielweise kann eine maßgeschneiderte Zielgruppe erstellt werden. Dazu können Werbetreibende eine bestehende Liste mit Informationen über Kund*innen bei Facebook hochladen (zum Beispiel eine Liste mit Telefonnummern oder E‑Mail-Adressen). Nachdem die Daten im Browser über eine Hashing-Funktion unkenntlich gemacht werden, gleicht Facebook sie mit eigenen Daten ab. Allen Personen dieser Liste, die Facebook in den eigenen Daten wiederfindet, kann dann eine Werbeanzeige geschaltet werden.
Ähnlich funktionieren sogenannte Look-Alike-Zielgruppen. Genau wie bei der maßgeschneiderte Zielgruppe können Werbetreibende eine Liste mit Kund*innen-Daten hochladen. Facebook extrapoliert diese Gruppe anschließend und schlägt weitere Personen vor, die der Gruppe ähnlich sind.
Bei beiden Verfahren gilt: Wenn die extern hochgeladene Liste bei Facebook bereits diskriminierend ist, zum Beispiel nur Leute eines gewissen Alters oder Geschlechts für eine Stellenanzeige enthält, ist die resultierende Anzeige auf Facebook ebenfalls diskriminierend. Da das entsprechende Attribut Alter oder Geschlecht hierzu nicht selbst in der Liste enthalten sein müsste, ist eine Diskriminierung in solchen Fällen nur schwierig aufzudecken. Ähnliche Funktionen gibt es übrigens auch auf anderen Plattformen wie Twitter oder Google.
Das Forschungsteam schlägt als Konsequenz vor, Werbeanzeigen nicht mehr wie bisher aufgrund der zur Verteilung verwendeten Kategorien zu kontrollieren. Stattdessen könne überprüft werden, ob die resultierende Zielgruppe im Hinblick auf diskriminierende Kategorien unausgewogen ist. Damit könnte sich Facebook wirklich gegen die missbräuchliche Verwendung seiner Werbe-Tools schützen.
Rechtliche Grauzone in Deutschland
In Deutschland gibt es bisher keine sichere rechtliche Grundlage, um direkt gegen solche Diskriminierung bei gezielter Werbung vorzugehen. In einer Antwort des Bundesjustizministeriums auf eine Anfrage von netzpolitik.org heißt es, solche Anzeigen beträfen das Datenschutzrecht, aber auch das Allgemeine Gleichbehandlungsgesetz (AGG) und das Gesetz gegen unlauteren Wettbewerb (UWG). Keines dieser Gesetze berücksichtigt aber den Fall maßgeschneiderter Werbung explizit. Es müssten erst auf eine Klage hin die Gerichte über Einzelfälle entscheiden.
